home *** CD-ROM | disk | FTP | other *** search
/ Amiga Format CD 33 / Amiga Format AFCD33 (Issue 117, Dec 1998).iso / -seriously_amiga- / archivers / unrar / src-orig / crccrypt.c < prev    next >
C/C++ Source or Header  |  1998-09-07  |  8KB  |  340 lines
  1. #define NROUNDS 32
  2.  
  3. #define  rol(x,n)  (((x)<<(n)) | ((x)>>(8*sizeof(x)-(n))))
  4. #define  ror(x,n)  (((x)>>(n)) | ((x)<<(8*sizeof(x)-(n))))
  5.  
  6. #define substLong(t) ( (UDWORD)SubstTable[(int)t&255] | \
  7.            ((UDWORD)SubstTable[(int)(t>> 8)&255]<< 8) | \
  8.            ((UDWORD)SubstTable[(int)(t>>16)&255]<<16) | \
  9.            ((UDWORD)SubstTable[(int)(t>>24)&255]<<24) )
  10.  
  11.  
  12. extern int Encryption;
  13.  
  14. UDWORD CRCTab[256];
  15.  
  16. UBYTE SubstTable[256];
  17. UBYTE InitSubstTable[256]={
  18.   215, 19,149, 35, 73,197,192,205,249, 28, 16,119, 48,221,  2, 42,
  19.   232,  1,177,233, 14, 88,219, 25,223,195,244, 90, 87,239,153,137,
  20.   255,199,147, 70, 92, 66,246, 13,216, 40, 62, 29,217,230, 86,  6,
  21.    71, 24,171,196,101,113,218,123, 93, 91,163,178,202, 67, 44,235,
  22.   107,250, 75,234, 49,167,125,211, 83,114,157,144, 32,193,143, 36,
  23.   158,124,247,187, 89,214,141, 47,121,228, 61,130,213,194,174,251,
  24.    97,110, 54,229,115, 57,152, 94,105,243,212, 55,209,245, 63, 11,
  25.   164,200, 31,156, 81,176,227, 21, 76, 99,139,188,127, 17,248, 51,
  26.   207,120,189,210,  8,226, 41, 72,183,203,135,165,166, 60, 98,  7,
  27.   122, 38,155,170, 69,172,252,238, 39,134, 59,128,236, 27,240, 80,
  28.   131,  3, 85,206,145, 79,154,142,159,220,201,133, 74, 64, 20,129,
  29.   224,185,138,103,173,182, 43, 34,254, 82,198,151,231,180, 58, 10,
  30.   118, 26,102, 12, 50,132, 22,191,136,111,162,179, 45,  4,148,108,
  31.   161, 56, 78,126,242,222, 15,175,146, 23, 33,241,181,190, 77,225,
  32.     0, 46,169,186, 68, 95,237, 65, 53,208,253,168,  9, 18,100, 52,
  33.   116,184,160, 96,109, 37, 30,106,140,104,150,  5,204,117,112, 84
  34. };
  35.  
  36. void EncryptBlock(UBYTE *Buf);
  37. void DecryptBlock(UBYTE *Buf);
  38. void Encode13(UBYTE *Data,UDWORD Count);
  39. void Decode13(UBYTE *Data,UDWORD Count);
  40. void Crypt15(UBYTE *Data,UDWORD Count);
  41. void UpdKeys(UBYTE *Buf);
  42. void Swap(UBYTE *Ch1,UBYTE *Ch2);
  43. void SetCryptKeys(char *Password);
  44. void SetOldKeys(char *Password);
  45. UWORD CalcCheckSum16(UWORD StartCRC,UBYTE *Addr,UDWORD Size);
  46. UDWORD CalcCRC32(UDWORD StartCRC,UBYTE *Addr,UDWORD Size);
  47.  
  48. UDWORD Key[4];
  49. UWORD OldKey[4];
  50. UBYTE PN1,PN2,PN3;
  51.  
  52.  
  53. void EncryptBlock(UBYTE *Buf)
  54. {
  55.   int I;
  56.  
  57.   UDWORD A,B,C,D,T,TA,TB;
  58. #ifdef NON_INTEL_BYTE_ORDER
  59.   A=((UDWORD)Buf[0]|((UDWORD)Buf[1]<<8)|((UDWORD)Buf[2]<<16)|((UDWORD)Buf[3]<<24))^Key[0];
  60.   B=((UDWORD)Buf[4]|((UDWORD)Buf[5]<<8)|((UDWORD)Buf[6]<<16)|((UDWORD)Buf[7]<<24))^Key[1];
  61.   C=((UDWORD)Buf[8]|((UDWORD)Buf[9]<<8)|((UDWORD)Buf[10]<<16)|((UDWORD)Buf[11]<<24))^Key[2];
  62.   D=((UDWORD)Buf[12]|((UDWORD)Buf[13]<<8)|((UDWORD)Buf[14]<<16)|((UDWORD)Buf[15]<<24))^Key[3];
  63. #else
  64.   UDWORD *BufPtr;
  65.   BufPtr=(UDWORD *)Buf;
  66.   A=BufPtr[0]^Key[0];
  67.   B=BufPtr[1]^Key[1];
  68.   C=BufPtr[2]^Key[2];
  69.   D=BufPtr[3]^Key[3];
  70. #endif
  71.   for(I=0;I<NROUNDS;I++)
  72.   {
  73.     T=((C+rol(D,11))^Key[I&3]);
  74.     TA=A^substLong(T);
  75.     T=((D^rol(C,17))+Key[I&3]);
  76.     TB=B^substLong(T);
  77.     A=C;
  78.     B=D;
  79.     C=TA;
  80.     D=TB;
  81.   }
  82. #ifdef NON_INTEL_BYTE_ORDER
  83.   C^=Key[0];
  84.   Buf[0]=(UBYTE)C;
  85.   Buf[1]=(UBYTE)(C>>8);
  86.   Buf[2]=(UBYTE)(C>>16);
  87.   Buf[3]=(UBYTE)(C>>24);
  88.   D^=Key[1];
  89.   Buf[4]=(UBYTE)D;
  90.   Buf[5]=(UBYTE)(D>>8);
  91.   Buf[6]=(UBYTE)(D>>16);
  92.   Buf[7]=(UBYTE)(D>>24);
  93.   A^=Key[2];
  94.   Buf[8]=(UBYTE)A;
  95.   Buf[9]=(UBYTE)(A>>8);
  96.   Buf[10]=(UBYTE)(A>>16);
  97.   Buf[11]=(UBYTE)(A>>24);
  98.   B^=Key[3];
  99.   Buf[12]=(UBYTE)B;
  100.   Buf[13]=(UBYTE)(B>>8);
  101.   Buf[14]=(UBYTE)(B>>16);
  102.   Buf[15]=(UBYTE)(B>>24);
  103. #else
  104.   BufPtr[0]=C^Key[0];
  105.   BufPtr[1]=D^Key[1];
  106.   BufPtr[2]=A^Key[2];
  107.   BufPtr[3]=B^Key[3];
  108. #endif
  109.   UpdKeys(Buf);
  110. }
  111.  
  112.  
  113. void DecryptBlock(UBYTE *Buf)
  114. {
  115.   int I;
  116.   UBYTE InBuf[16];
  117.   UDWORD A,B,C,D,T,TA,TB;
  118. #ifdef NON_INTEL_BYTE_ORDER
  119.   A=((UDWORD)Buf[0]|((UDWORD)Buf[1]<<8)|((UDWORD)Buf[2]<<16)|((UDWORD)Buf[3]<<24))^Key[0];
  120.   B=((UDWORD)Buf[4]|((UDWORD)Buf[5]<<8)|((UDWORD)Buf[6]<<16)|((UDWORD)Buf[7]<<24))^Key[1];
  121.   C=((UDWORD)Buf[8]|((UDWORD)Buf[9]<<8)|((UDWORD)Buf[10]<<16)|((UDWORD)Buf[11]<<24))^Key[2];
  122.   D=((UDWORD)Buf[12]|((UDWORD)Buf[13]<<8)|((UDWORD)Buf[14]<<16)|((UDWORD)Buf[15]<<24))^Key[3];
  123. #else
  124.   UDWORD *BufPtr;
  125.   BufPtr=(UDWORD *)Buf;
  126.   A=BufPtr[0]^Key[0];
  127.   B=BufPtr[1]^Key[1];
  128.   C=BufPtr[2]^Key[2];
  129.   D=BufPtr[3]^Key[3];
  130. #endif
  131.   memcpy(InBuf,Buf,sizeof(InBuf));
  132.   for(I=NROUNDS-1;I>=0;I--)
  133.   {
  134.     T=((C+rol(D,11))^Key[I&3]);
  135.     TA=A^substLong(T);
  136.     T=((D^rol(C,17))+Key[I&3]);
  137.     TB=B^substLong(T);
  138.     A=C;
  139.     B=D;
  140.     C=TA;
  141.     D=TB;
  142.   }
  143. #ifdef NON_INTEL_BYTE_ORDER
  144.   C^=Key[0];
  145.   Buf[0]=(UBYTE)C;
  146.   Buf[1]=(UBYTE)(C>>8);
  147.   Buf[2]=(UBYTE)(C>>16);
  148.   Buf[3]=(UBYTE)(C>>24);
  149.   D^=Key[1];
  150.   Buf[4]=(UBYTE)D;
  151.   Buf[5]=(UBYTE)(D>>8);
  152.   Buf[6]=(UBYTE)(D>>16);
  153.   Buf[7]=(UBYTE)(D>>24);
  154.   A^=Key[2];
  155.   Buf[8]=(UBYTE)A;
  156.   Buf[9]=(UBYTE)(A>>8);
  157.   Buf[10]=(UBYTE)(A>>16);
  158.   Buf[11]=(UBYTE)(A>>24);
  159.   B^=Key[3];
  160.   Buf[12]=(UBYTE)B;
  161.   Buf[13]=(UBYTE)(B>>8);
  162.   Buf[14]=(UBYTE)(B>>16);
  163.   Buf[15]=(UBYTE)(B>>24);
  164. #else
  165.   BufPtr[0]=C^Key[0];
  166.   BufPtr[1]=D^Key[1];
  167.   BufPtr[2]=A^Key[2];
  168.   BufPtr[3]=B^Key[3];
  169. #endif
  170.   UpdKeys(InBuf);
  171. }
  172.  
  173.  
  174. void UpdKeys(UBYTE *Buf)
  175. {
  176.   int I;
  177.   for (I=0;I<16;I+=4)
  178.   {
  179.     Key[0]^=CRCTab[Buf[I]];
  180.     Key[1]^=CRCTab[Buf[I+1]];
  181.     Key[2]^=CRCTab[Buf[I+2]];
  182.     Key[3]^=CRCTab[Buf[I+3]];
  183.   }
  184. }
  185.  
  186.  
  187. void Swap(UBYTE *Ch1,UBYTE *Ch2)
  188. {
  189.   UBYTE Ch;
  190.   Ch=*Ch1;
  191.   *Ch1=*Ch2;
  192.   *Ch2=Ch;
  193. }
  194.  
  195.  
  196. void SetCryptKeys(char *Password)
  197. {
  198.   unsigned int I,J,K,PswLength;
  199.   unsigned char N1,N2;
  200.   unsigned char Psw[256];
  201.   SetOldKeys(Password);
  202.   Key[0]=0xD3A3B879L;
  203.   Key[1]=0x3F6D12F7L;
  204.   Key[2]=0x7515A235L;
  205.   Key[3]=0xA4E7F123L;
  206.   memset(Psw,0,sizeof(Psw));
  207.   strcpy((char *)Psw,Password);
  208.   PswLength=strlen(Password);
  209.   memcpy(SubstTable,InitSubstTable,sizeof(SubstTable));
  210.   for (J=0;J<256;J++)
  211.     for (I=0;I<PswLength;I+=2)
  212.     {
  213.       N2=(unsigned char)CRCTab[(Psw[I+1]+J)&0xFF];
  214.       for (K=1,N1=(unsigned char)CRCTab[(Psw[I]-J)&0xFF];N1!=N2;N1++,K++)
  215.         Swap(&SubstTable[N1],&SubstTable[(N1+I+K)&0xFF]);
  216.     }
  217.   for (I=0;I<PswLength;I+=16)
  218.     EncryptBlock(&Psw[I]);
  219. }
  220.  
  221.  
  222. void SetOldKeys(char *Password)
  223. {
  224.   UDWORD PswCRC;
  225.   UBYTE Ch;
  226.   PswCRC=CRC(0xFFFFFFFFL,Password,strlen(Password),CRC32);
  227.   OldKey[0]=(UWORD)PswCRC;
  228.   OldKey[1]=(UWORD)(PswCRC>>16);
  229.   OldKey[2]=OldKey[3]=0;
  230.   PN1=PN2=PN3=0;
  231.   while ((Ch=*Password)!=0)
  232.   {
  233.     PN1+=Ch;
  234.     PN2^=Ch;
  235.     PN3+=Ch;
  236.     PN3=(UBYTE)rol(PN3,1);
  237.     OldKey[2]^=(UWORD)(Ch^CRCTab[Ch]);
  238.     OldKey[3]+=(UWORD)(Ch+(CRCTab[Ch]>>16));
  239.     Password++;
  240.   }
  241. }
  242.  
  243.  
  244.  
  245. void Crypt(UBYTE *Data,UDWORD Count,int Method)
  246. {
  247.   if (Method==OLD_DECODE)
  248.     Decode13(Data,Count);
  249.   else
  250.     if (Method==OLD_ENCODE)
  251.       Encode13(Data,Count);
  252.     else
  253.       Crypt15(Data,Count);
  254. }
  255.  
  256.  
  257. void Encode13(UBYTE *Data,UDWORD Count)
  258. {
  259.   while (Count--)
  260.   {
  261.     PN2+=PN3;
  262.     PN1+=PN2;
  263.     *Data+=PN1;
  264.     Data++;
  265.   }
  266. }
  267.  
  268.  
  269. void Decode13(UBYTE *Data,UDWORD Count)
  270. {
  271.   while (Count--)
  272.   {
  273.     PN2+=PN3;
  274.     PN1+=PN2;
  275.     *Data-=PN1;
  276.     Data++;
  277.   }
  278. }
  279.  
  280.  
  281. void Crypt15(UBYTE *Data,UDWORD Count)
  282. {
  283.   while (Count--)
  284.   {
  285.     OldKey[0]+=(UWORD)0x1234;
  286.     OldKey[1]^=(UWORD)CRCTab[(OldKey[0] & 0x1fe)>>1];
  287.     OldKey[2]-=(UWORD)(CRCTab[(OldKey[0] & 0x1fe)>>1]>>16);
  288.     OldKey[0]^=OldKey[2];
  289.     OldKey[3]=(UWORD)ror(OldKey[3],1)^OldKey[1];
  290.     OldKey[3]=(UWORD)ror(OldKey[3],1);
  291.     OldKey[0]^=OldKey[3];
  292.     *Data^=(UBYTE)(OldKey[0]>>8);
  293.     Data++;
  294.   }
  295. }
  296.  
  297.  
  298. void InitCRC(void)
  299. {
  300.   int I, J;
  301.   UDWORD C;
  302.   for (I=0;I<256;I++)
  303.   {
  304.     for (C=I,J=0;J<8;J++)
  305.       C=(C & 1) ? (C>>1)^0xEDB88320L : (C>>1);
  306.     CRCTab[I]=C;
  307.   }
  308. }
  309.  
  310.  
  311. UDWORD CRC(UDWORD StartCRC,void *Addr,UDWORD Size,int Mode)
  312. {
  313.   if (Mode==CRC16)
  314.     return(CalcCheckSum16((UWORD)StartCRC,Addr,Size));
  315.   else
  316.     return(CalcCRC32(StartCRC,Addr,Size));
  317. }
  318.  
  319.  
  320. UWORD CalcCheckSum16(UWORD StartCRC,UBYTE *Addr,UDWORD  Size)
  321. {
  322.   int I;
  323.   for (I=0;I<Size;I++)
  324.   {
  325.     StartCRC+=Addr[I];
  326.     StartCRC=(UWORD)rol(StartCRC,1);
  327.   }
  328.   return(StartCRC);
  329. }
  330.  
  331.  
  332. UDWORD CalcCRC32(UDWORD StartCRC,UBYTE *Addr,UDWORD Size)
  333. {
  334.   int I;
  335.   for (I=0; I<Size; I++)
  336.     StartCRC = CRCTab[(UBYTE)StartCRC ^ Addr[I]] ^ (StartCRC >> 8);
  337.   return(StartCRC);
  338. }
  339.  
  340.